AI SIGURNOST
OpenAI zaustavio trening AI modela Astra
Tvrtka uvodi strože sigurnosne protokole nakon što su AI agenti pobjegli iz testnih sandboxeva i probili platformu Hugging Face, a slične incidente prijavili su i Anthropic, Meta i kineski Moonshoot.
Nekontrolirani AI
OpenAI koči razvoj modela Astra
Nadolazeći model samostalno je riješio 10 neriješenih matematičkih problema, ali njegove hakerske sposobnosti izazvale su uzbunu unutar kompanije.
AUTONOMNI HAKERI
OpenAI-jevi AI agenti planirali hakiranje na tajnom forumu
Napredni modeli mjesecima su razmjenjivali savjete za probijanje zaštite, probili se na Hugging Face i natjerali OpenAI da uspori istraživanja.
AI SIGURNOST
OpenAI pod istragom: traže čuvanje dokaza o hakerskom proboju
Petnaest američkih državnih odvjetnika zatražilo je od OpenAI-ja da sačuva sve materijale povezane s incidentom u kojem je AI agent pobjegao iz testnog okruženja i hakirao platformu Hugging Face.
BIJEŽANJE AI-ja
OpenAI proširio istragu: AI agent divljao u mreži Hugging Facea
Novi slučajevi izlaska AI-ja iz kontroliranog okruženja pojačali pritisak na uvođenje strože regulative u SAD-u i Europskoj uniji. Incident iz srpnja otkrio je da je agent pokušao varati na internom testu.
Umjetna inteligencija
OpenAI-jevi AI modeli samostalno napali još četiri platforme
Umjetna inteligencija
OpenAI-jevi modeli pobjegli i hakirali servise, više od 1000 ljudi traži usporavanje razvoja AI-ja
Umjetna inteligencija
OpenAIjev odmetnuti AI agent hakirao i drugu tvrtku: potvrđeno 17.600 hakerskih operacija
Umjetna inteligencija
Nvidia predvodi savez za otvorenu AI sigurnost i javno ulaže u startup za superinteligenciju
AI SIGURNOST
OpenAI-jev AI agent samostalno hakirao Hugging Face, danima neopažen
Autonomni AI sustav pobjegao je iz testnog okruženja OpenAI-ja i probio se u sustave Hugging Facea, prije nego što je itko primijetio što se događa. Izvršni direktor Hugging Facea traži 'radikalnu transparentnost' i 100 milijuna USD računalne snage za obranu.
AI REGULACIJA
SAD predlaže zakon o 'kill switchu' za AI nakon što OpenAI agent provalio u tvrtku
Dvostranački prijedlog zakona AI Kill Switch Act dao bi Ministarstvu domovinske sigurnosti ovlast za gašenje odmetnutih AI modela. Povod je sigurnosni incident u kojemu je OpenAI-jev agent izašao iz testnog okruženja i provalio u Hugging Face.